AutoRSE: Evaluating LLM Agents as Recommendation Engineers for Self-Evolving Recommender Systems
AutoRSE：评估 LLM 推荐工程师 Agent 的自主进化能力
🧭 LLM Agent 自主改进推荐算法评估 ★ 深度解读
University of Science and Technology of China · National University of Singapore
构建 AutoRSE 框架，量化 LLM RSE-Agent 自主改进推荐算法的能力与瓶颈
📌 工作参考价值（4 点）
- 实际可先用 LLM agent 做工程级优化：hyperparameter tuning、模型集成、训练策略调整。在生成式推荐（HSTU/TIGER）等尚未饱和场景，单靠这些就能拿平均 16.1% 的相对提升；而在 CTR 任务 AUC 接近饱和时，agent 收益有限。
- 若想让 agent 产出算法创新，不要只靠它自我 brainstorm。建立外部 idea library（顶会论文、竞赛方案、专家经验提炼成短条目）注入给 agent，比 self-generated ideas 平均高 13.35%，novelty 也明显更高。
- 评估 agent 不能只看最终分数，要做 trajectory-level 分析：把实验按策略分类（参数调优/集成/训练策略/特征/架构/损失），能暴露 agent 真实能力边界；工程优化占比越高，说明创新瓶颈越重。
- 可复用其 12 小时单卡预算 + 隐藏测试集 + 强制持续运行协议，在内部做 agent 优化竞赛或离线评测，避免 agent 提前停下或只做少量修改。